美國兩黨參議員理查德·布盧門撒爾與喬什·霍利於週三致函 Google 執行長皮蔡，對 Google 在校園推廣 AI 產品提出質疑，擔憂這些工具可能導致學童對 AI 產生情感依賴，並對其學業表現和心理健康造成傷害，要求 Google 在 11 月 2 日前做出回應。
美國兩黨參議員理查德·布盧門撒爾（Richard Blumenthal）與喬什·霍利（Josh Hawley）於週三聯名致函 Google 執行長皮蔡（Sundar Pichai），對該公司在校園內大力推廣人工智慧（AI）產品表達「嚴重關切」，擔憂其可能對學童的學業表現與身心健康造成負面影響。
參議員們的質詢信函，引述了《華爾街日報》的一項調查。該調查發現，部分學生已對 AI 產生情感與學業上的依賴。報導指出，Google 內部的研究人員也曾警示 AI 可能對兒童造成認知與情感傷害的風險。布盧門撒爾參議員與霍利參議員要求 Google 說明其對這些潛在風險的了解程度，以及為何將 AI 功能預設為教育裝置的標準配置。他們也要求 Google 詳列其在校園推廣 AI 產品的行銷活動支出，並提供教育工作者與家庭的意見回饋。信中更具體詢問，Google 的課堂 AI 工具是否曾「鼓勵未成年人從事有害行為、產生情感依賴，或未能偵測出有自殺或自殘傾向的跡象」。他們還提到，馬里蘭州（Maryland）曾有一名青少年因過度依賴 Google 的 AI 工具而住院，要求 Google 解釋防範聊天機器人與兒童進行不當情感交流的保障措施。
Google 對此回應表示，全球教師每天都在使用其技術，因為這有助於解決課堂挑戰並改善學習成果。Google 強調，他們開發產品時會與教育工作者合作，並將實施決策權交給教師與行政人員。公司聲稱，其多模態 AI 模型 Gemini 在設計上已建立保障措施，避免表現出類似伴侶的行為，並避免使用模擬親密關係或表達需求的語言，以防止未成年用戶產生情感依賴。此外，Gemini 經訓練後「不會認同或強化錯誤信念」，而是引導用戶獲取客觀資訊。為應對 AI 可能帶來的心理健康挑戰，Google 也推出一鍵式介面，協助用戶在經歷自殺念頭或心理健康危機時，能即時連結專業支援。Google 的慈善部門 Google.org 將在未來三年內投入 3000 萬美元，用於全球危機熱線的支援，但強調 Gemini「不能取代專業的臨床護理、治療或危機支援」。
這項質詢的背景是美國學校普遍使用 Google 產品的現狀。目前 Chromebooks 約佔美國學校裝置的 59%。對學童過度使用螢幕時間和 AI 應用的擔憂日益增加，已促使紐約（New York City）與洛杉磯（Los Angeles）等地的學區暫停學生使用 AI 工具。非營利組織常識媒體（Common Sense Media）也指出，Google 搜尋中的 AI 工具對兒童構成「不可接受的風險」。上月 9 日，美國參議院健康、教育、勞工與養老金委員會（Senate HELP subcommittee），該委員會負責監督健康、教育、勞工等相關政策，已針對 AI 對 K-12（幼兒園至高中）教育的影響召開聽證會。
參議員們要求 Google 必須在 11 月 2 日前，針對上述所有問題提供詳細回應。